1027. Орлов А.И. Ядерные оценки плотности в конечных пространствах // Статистические методы оценивания и проверки гипотез: межвуз. сб. науч. тр. / Перм. гос. нац. иссл. ун-т. – Пермь, 2016. – Вып. 27. – С. 24-37.

________СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНКИ И ПРОВЕРКИ ГИПОТЕЗ___
2016			Пермский государственный университет		          Вып.27

УДК 519.2
Ядерные оценки плотности в конечных пространствах 

А.И. Орлов1 

1Московский государственный технический университет им. Н.Э. Баумана, Институт высоких статистических технологий и эконометрики; Московский физико-технический институт; Москва, Россия; prof-orlov@mail.ru; http://orlovs.pp.ru; +7(916)8305117; 123104, Москва, Сытинский пер., д.7/14, кв.14.

Аннотация. Ядерные оценки плотности рассмотрены для последовательностей пространств с мерами. Найдены условия, при которых разность плотностей распределений вероятностей и математических ожиданий их ядерных оценок равномерно стремится к 0. Установлена равномерная сходимость для дисперсий. Выявлены условия на ядерные функции, при которых имеют место указанные равномерные сходимости. В качестве примеров рассмотрены пространства нечетких подмножеств конечных множеств и пространства всех подмножеств конечных множеств. Найдено условие, обеспечивающее возможность применения ядерных оценок плотности в конечных пространствах. Приведен контрпример пространства ранжировок, в котором применение ядерных оценок плотности нельзя признать корректным.
Ключевые слова: нечисловая статистика, плотность распределения вероятностей, пространства произвольной природы, ядерные оценки плотности, предельные теоремы, состоятельные оценки, конечные пространства, равномерная сходимость. 

1. Введение
	Непараметрические оценки плотности распределения вероятностей в пространствах произвольной природы - один из основных инструментов нечисловой статистики [1, 2], называемой также статистикой объектов нечисловой природы или статистикой нечисловых данных. Систематическое изложение теории таких оценок начато в статьях [3, 4], непосредственным продолжением которых является настоящая статья. Регулярно используются ссылки на условия и утверждения из статей [3, 4].
	Пусть (Z, A) – измеримое пространство, p и q – сигма-конечные меры на (Z, A), причем p абсолютно непрерывна относительно q, т.е. из q(B) = 0 следует p(B) = 0 для любого множества B из сигма-алгебры A. В этом случае на (Z, A) существует неотрицательная измеримая функция f(x) такая, что 
		(1)
для любого множества C из сигма-алгебры измеримых множеств A. Функция f(x) называется производной Радона - Никодима меры q по мере p, а в случае, когда q - вероятностная мера, также плотностью вероятности q по отношению к мере p [5, с.460].
	Пусть X1, X2 ,…, Xn – независимые одинаково распределенные случайные элементы (величины), распределение которых задается вероятностной мерой q. В статье [3] введено несколько видов непараметрических оценок плотности вероятности q по выборке X1, X2 ,…, Xn. Подробнее изучены линейные оценки. В статье [4] рассмотрены их частные случаи – ядерные оценки плотности в пространствах произвольной природы. Однако асимптотическая теория оценок плотности развита прежде всего для нужд статистики конкретных видов объектов нечисловой природы, в которой основной интерес представляют конечные пространства Z. Мера p при этом не непрерывная, а дискретная, например, считающая. Таким образом, в рамках единого подхода рассматриваем оценки плотностей и оценки вероятностей.
	Для конечных пространств Z полученные в [3, 4] результаты нельзя применять непосредственно, поскольку, в частности, не выполнено условие (VIII') статьи [4], функция Fx(t) - функция дискретного распределения (а не непрерывного), а потому "не проходят" приведенные в [4] доказательства теорем 3 - 8. Нами развита теория, охватывающая случай конечных пространств Z (пространств бинарных отношений, подмножеств конечных множеств и др.). Этой теории посвящена настоящая статья.

2. Последовательности моделей оценивания плотностей
	Будем изучать асимптотику последовательностей пространств с мерами (с целью в дальнейшем рассмотреть последовательности конечных пространств). Введем новый параметр m и рассмотрим последовательность пространств с мерами (Zm, pm) и соответствующих функций Fm(x, t), задающих зависимость мер шаров с центром в точке x из Zm от радиуса t,
Fm(x, t) = pm{y: dm(x, y) < t}, m = 1, 2, ..., 			(1)
где dm - мера близости в Zm (здесь мы несколько модернизируем обозначения, использованные и формулах (6) и (7) статьи [4]). Предположим, что
			(2)
	Рассмотрим также плотности fm в пространствах (Zm, pm) и задающие непараметрические оценки плотности ядра Km,  m = 1, 2, ... Укажем условия, при которых полученные в статьях [3, 4] результаты оказываются асимптотически (при  и ) справедливыми для последовательности вероятностных моделей оценивания плотности, задаваемых кортежами (Zm, pm, dm, fm, Km).
	Поскольку вместо одной плотности f появляется последовательность плотностей fm, то условия на плотность, в частности, условие (IV) статьи [3], необходимо изменить. Пусть выполнено следующее условие.
	(IX) Для любого  существует  такое, что , если .
	Для упрощения рассуждений наложим на ядра Km условие равномерной финитности и ограниченности.
	(X) Существуют константы D и E такие, что |Km(t)| < D при всех t > 0 и Km(t) = 0 при T > E.
	Рассмотрим ядерные оценки fnm(x) плотностей fm(x), которые будем изучать,
,	,		(3)
где Km = Km(u) – ядра (ядерные функции), hn – последовательность положительных чисел (показателей размытости), bm(hn, x) – нормировочные множители. Согласно формулам (1) и (4) статьи [3]
.		(4)
	Повторим проведенные ранее в статьях [3, 4] рассуждения, отмечая новые моменты, связанные с введением параметра m.
	Согласно условию (X) в определении fnm(x) участвуют лишь те элементы выборки Xi, для которых 
dm(x, Xi) < Ehn .				(5)
Правая часть неравенства (5) задает радиус окрестности U(x) точки x пространства Zm (в смысле меры близости dm), рассмотрением которого достаточно ограничиться.
	Примем, как и в [3, 4], что при  показатель размытости
.					(6)
Тогда радиус рассматриваемой окрестности стремится к 0. В силу (2) при  предельная функция имеет вид Fx(t) = t. Положим
Fm(x, t) = Fx(t) + Hm(x, t).			(7)
Тогда
	(8)
Нам понадобится соотношение (8) для g = Km, g = |Km|, g = |Km|2, а качество аппроксимации будет определяться скоростью сходимости  к 0 при , .
	Имеем согласно (4), условию (X) и (8):
.		(9)
Примем
.				(10)
Аналогично (9) имеем
.		(11)
Для справедливости формулы (9) статьи [4] и условия (V) статьи [3] достаточно, чтобы
,						(12)
поскольку согласно условию (X)
.					(13)
	Теорема 1. Если выполнены условия (IX), (X) и справедливы соотношения (6), (10), (12), то разность математических ожиданий оценок Mfnm(x) и плотностей fm(x) равномерно стремится к 0 при , :
.				(14)
	Доказательство. Возьмем  и согласно условию (IX) выберем , обладающее указанным в этом условии свойством. Пусть Ehn <  при n > n0. Согласно условию (X) и соотношению (11) статьи [3] 
,	(15)
где функции gnm(x) определены формулой (4) статьи [3]. При n > n0 согласно соотношению (12) статьи [3], формулам (9) и (11)
. 	(16)
Из (10) и (12) следует, что правая часть (16) не превосходит , где F = const, равномерно по всем x из Zm и n > n0, откуда и вытекает (14). Теорема 1 доказана.
	Согласно соотношению (12) статьи [4] для существования дисперсии у оценки fnm(x) достаточно справедливости условия  
.		(17)
Учитывая (8) - (10), получаем 
.		(18)
	Теорема 2. Пусть дополнительно к условиям теоремы 1 
.				(19)
Тогда
.		(20)
	Доказательство проводится аналогично доказательству теорем 6 и 7 статьи [4].
	Как видно из проведенных выше рассуждений, при рассмотрении последовательностей моделей оценивания плотностей в пространствах с мерой принципиально новыми являются условия
,		(21)
где gm = Km, gm = |Km|, gm = |Km|2 (ср. (8)). С помощью замены переменных u = t/hn от (21) перейдем к условиям
,		(22)
т.е. к условиям
.		(23)
	Введем условие
.		(24)
В [1, с.230] показано, что для вывода (23) из (24) необходимо и достаточно (в указанном там смысле), чтобы функции gm (u) были равностепенно (по m) интегрируемы по Риману. В частности, достаточно, чтобы они были равностепенно непрерывными. 
	Теорема 3. Соотношения (10), (12), (19) выполнены, если ядерные функции Km равностепенно непрерывны и справедливо (24).
	Требование равностепенной непрерывности связано с тем, что ядра Km могут зависеть от параметра m. В приложениях обычно достаточно положить Km = K и вместо условия (X) принять условие (X'):
	(X') Ядро  - непрерывная финитная функция.
	Рассмотрим примеры применения развитой выше теории для построения ядерных оценок плотности в конкретных дискретных пространствах.

3. Нечеткие подмножества конечных множеств
	Пример 1. Рассмотрим последовательность Zm, m = (r, q), пространств нечетких множеств, являющихся подмножествами конечных множеств
	,	(25)
функции принадлежности которых принимают значения из конечных множеств
.		(26)
Очевидно, число элементов пространства Zm равно
.					(27)
	Пусть f и g - функции принадлежности нечетких множеств, т.е. функции, отображающие Yr в Wq. Естественно рассмотреть меру близости
			(28)
и окрестности
 .	(29)
Если
,				(30)
то, как нетрудно видеть, число элементов в рассматриваемой окрестности равно
.					(31)
	Пусть pm - вероятностная мера на Zm, приписывающая всем элементам Zm одну и ту же вероятность. Тогда при справедливости (30)
.		(32)
Положим 
.			(33)
Тогда
Fm(f, t) = pm{g: d1(f, g) < t} = t				(34)
в точках , в которых
						(35)
при некотором целом неотрицательном s. Функция Fm(f, t) имеет скачки в точках
,				(36)
и кусочно постоянна между ними. Значит, при любых t, таких, что ts - 1 < t < ts, имеем
0 < t - Fm(f, t) < ts - ts - 1 .				(37)
	Элементарные выкладки дают
.					(38)
Следовательно,
.			(39)
Для справедливости (24) и, следовательно, для применимости развитой выше теории ядерных оценок плотности достаточно, чтобы двумерный параметр m = (r, q) был связан с объемом выборки n таким образом, чтобы
.					(40)
Если , то 
,					(41)
 , и для справедливости (40) необходимо и достаточно, чтобы .
	Ядерная оценка плотности имеет вид 
.	(42)

4. Пространства всех подмножеств конечных множеств
	Пример 2. Рассмотрим последовательность Zm пространств всех подмножеств множеств D(m) из m элементов, т.е. Zm = 2D(m). Пространство Zm состоит из 2m элементов. Пусть pm - вероятностная мера, соответствующая равномерному распределению на Zm. Известно [1], что из некоторой естественной системы аксиом вытекает, что в качестве расстояния между двумя множествами A, B следует использовать меру симметрической разности этих множеств:
.		(43)
	Вычислим pm{B: dm(A, B) < t}. В силу изотропности пространства Zm (см. [1]) достаточно рассмотреть случай . Тогда условие  переходит в условие , а потому
.			(44)
Поскольку в силу интегральной теоремы Муавра-Лапласа
,			(45)
то естественно рассмотреть меру близости
			(46)
и ядерную оценку плотности
.	(47)
Таким образом, функция Fm(A, t) кусочно постоянна, имеет скачки в точках
				(48)
и в этих точках принимает значения
.				(49)
Следовательно,
.		(50)
где X имеет биномиальное распределение с параметрами m и p =0,5. Для справедливости (24) необходимо, чтобы
,					(51)
где
.		(52)
Обозначим
.				(53)
Тогда  при , и (51) переходит в условие 
.						(54)
По известной теореме [6, с.207] для справедливости (54) достаточно, чтобы
.						(55)
Согласно известной формуле [, с.11] об асимптотике нормального распределения
.				(56)
Следовательно, если 
,			(57)
то выполнены соотношения (55), (54), а потому (51) и (24), и использование ядерной оценки плотности (47) корректно. 

5. Широкая распространенность условия (24)
	В примерах 1 и 2 использовались свойства конкретных дискретных пространств нечисловой природы. Продемонстрируем, что справедливость условия (24) широко распространена, а не является исключением.
	Пусть Zm - последовательность конечных пространств нечисловой природы,
,			(58)
и dm - расстояние (мера близости) в Zm. Тогда
.	(59)
Как обычно, положим
				(60)
и рассмотрим
.			(61)
Тогда Fm(x, t) кусочно постоянна и имеет скачки в точках ti, i = 1, 2, ..., причем
Fm(x, ti) = ti .						(62)
Кроме того, при ti - 1 < t < ti имеем
0 < t - Fm(x, t) < ti - ti - 1 .				(63)
Чтобы можно было приблизить дискретную модель непрерывной, необходимо потребовать, чтобы при 
.					(64)
Из (64) согласно (63) следует, что 
					(65)
для любого t > 0.
	Если зафиксировать n, то (24) эквивалентно условию
.				(66)
	Пусть выполнено (65). Покажем, что можно построить последовательность mn = m(hn), n = 1, 2, ..., так, чтобы было справедливо соотношение (24).
	Рассмотрим убывающую un и возрастающую mn последовательности такие, что 
.		(67)
	Покажем, что удовлетворяющая (67) последовательность mn существует. Как известно, их поточечной сходимости (65) вытекает равномерная сходимость функций распределения:
						(68)
при . Следовательно, при любом t
.					(69)
Поскольку t > tn, то из (69) следует, что
.						(70)
Следовательно, положив , получим, что при  справедливо (67).
	Рассмотрим последовательность qn = hnu, n = 1, 2, ..., Тогда при n > n0 имеем un < u. В соответствии с (67)
						(71)
при m > mn. Следовательно, если при  параметр m меняется так, что m > mn, то справедливо (24).
	Таким образом, условие (64) оказывается достаточным для обоснования корректности применения ядерных оценок плотности.

6. Контрпример
	Приведем пример пространства, в котором применение ядерных оценок плотности нельзя признать корректным.
	В пространствах объектов нечисловой природы расстояния могут вводиться с помощью понятия "соседства". Некоторые пары объектов объявляют "соседями" и расстояние между ними принимают равным 1. Чтобы измерить расстояние между объектами a и b, строят всевозможные последовательности объектов из этого пространства a1 = a, a2, a3, ..., ak = b такие, что ai и ai+1 являются соседями, i = 1, 2, ..., k - 1. Расстоянием d(a, b) между a и b объявляют наименьшую из длин последовательностей рассматриваемого вида [8, 9]. 
	Пример 3. В качестве примера рассмотрим пространство Zm ранжировок (без связей) m объектов (в терминах комбинаторики - пространство перестановок m объектов). Тогда
Card(Zm) = m!							(72)
"Соседями" назовем ранжировки, отличающиеся одной инверсией. Тогда у ранжировки R имеется соседей. Условию
d(R, X) = 2							(73)
удовлетворяют 
							(74)
ранжировок, поскольку для каждой из  ранжировок Y, удовлетворяющих условию d(R, Y) = 1, одна из  инверсий приводит опять к R, а остальные  - 1 инверсий - к ранжировкам X, удовлетворяющих условию (73). Можно показать, что при малых (по сравнению с m) значениях t справедлива аппроксимация
						(75)
	Пусть pm - вероятностная мера, соответствующая равномерному распределению на Zm. Тогда согласно (75) естественно рассмотреть ядерную оценку плотности
.				(76)
	Проверим справедливость соотношения (64). В силу (75)
.					(77)
Значит, соотношение (64) не может быть выполнено, и полученные выше в настоящей статье результаты не применимы к статистике (76). Причина состоит в слишком быстром росте  согласно (75) (ср. (77) с ростом аналогичных величин в других пространствах объектов нечисловой природы - пространстве нечетких множеств (см. (31)) и пространстве подмножеств конечного множества (см. (44)). 
	Таким образом, примеры 1 и 2 показывают, что результаты настоящей статьи позволяют строить ядерные оценки плотности в конкретных дискретных (конечных пространствах нечисловой природы. В следующем разделе 5 сформулировано общее свойство рассматриваемых пространств, позволяющее обосновать корректность ядерных оценок. Пример 3 является контрпримером, демонстрирующим, что проведенные в настоящей статье рассмотрения применимы не ко всем пространствам объектов нечисловой природы.

Библиографический список

1. Орлов А.И. Организационно-экономическое моделирование: учебник : в 3 ч. Часть 1: Нечисловая статистика. – М.: Изд-во МГТУ им. Н.Э. Баумана. 2009. – 541 с.
2. Орлов А.И. О развитии статистики объектов нечисловой природы // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2013. № 93. С. 41-50.
3. Орлов А.И. Оценки плотности в пространствах произвольной природы // Статистические методы оценивания и проверки гипотез: межвуз. сб. науч. тр. / Перм. гос. нац. иссл. ун-т. – Пермь, 2013. – Вып. 25. – С.21-33.
4. Орлов А.И. Ядерные оценки плотности в пространствах произвольной природы // Статистические методы оценивания и проверки гипотез: межвуз. сб. науч. тр. / Перм. гос. нац. иссл. ун-т. – Пермь, 2015. – Вып. 26. – С. 43-57.
5. Вероятность и математическая статистика: Энциклопедия / Гл. ред. Ю.В. Прохоров. – М.: Большая Российская Энциклопедия, 1999. – 910 с.
6. Феллер В. Введение в теорию вероятностей и её приложения: Том 1. - М.: Мир, 1984. - 528 с.
7. Большев Л.Н., Смирнов Н.В. Таблицы математической статистики / 3-е изд. - М.: Наука, 1983. - 416 с.
8. Куликов С.М. Структурные меры близости в пространстве классификаций и разбиений // Прикладная статистика. - М.: Наука, 1983. - С. 282-286.
9. Тюрин Ю.Н. Экспертная классификация // Экспертные методы в системных исследованиях / Сборник трудов ВНИИСИ. - 1979. - Вып.4. - С.5-15.

Nuclear density estimates in finite spaces 

A.I. Orlov1 

1Bauman Moscow State Technical University, Institute of high statistical technologies and econometrics; Moscow Physics-Technical Institute; Moscow, Russia; prof-orlov@mail.ru; http://orlovs.pp.ru; +7(916)8305117; 123104, Moscow, the Sytinsky lane, house 7/14, apartment 14.

Abstract. Kernel density estimates are considered for sequences of spaces with measures. We give the conditions under which the difference between the densities of probability distributions and of the mathematical expectations of their nuclear estimates uniformly tends to 0. Is established the uniform convergence of the variances. We find the conditions on the kernel functions, in which take place these theorems about uniform convergence. As examples, are considered the spaces of fuzzy subsets of finite sets and the spaces of all subsets of finite sets. We give the condition to support the use of kernel density estimation in finite spaces. We discuss the counterexample of space of rankings in which the application of kernel density estimators can not be correct.

Key words: non-numeric statistics, probability density function, the space of an arbitrary nature, nuclear density estimates, limit theorems, consistent estimates, finite space, uniform convergence.